Thuật toán của TikTok khai thác sự mong manh của trẻ như thế nào

“Có nội dung tự hại, có nội dung nhảm về cách chữa trị sức khỏe tâm thần”, theo Imran Ahmed thuộc Center for Countering Digital Hate, tổ chức đã đưa ra một báo cáo vào tháng 12 năm ngoái cho thấy thuật toán của TikTok đang gợi ý nội dung có thể tác động tiêu cực đến người dùng nhỏ tuổi. "Người dùng đang bị ngập trong nội dung khiến họ có cái nhìn cực kỳ sai lệch về bản thân, cơ thể, sức khỏe tinh thần và so sánh với những người khác".

Nghiên cứu của Center for Countering Digital Hate cho thấy việc thay đổi tên người dùng từ “Sarah” thành “Sarah Lose Weight” (Sarah giảm cân) trên TikTok có thể dẫn đến việc thuật toán gợi ý nội dung tự làm hại bản thân nhiều hơn gấp 12 lần. “Thuật toán nhận ra điểm yếu ở người dùng và thay vì thận trọng hơn, nó coi đó là điểm gây nghiện tiềm ẩn để tối đa hóa thời gian xem, bằng cách cung cấp cho người dùng nội dung liên quan đến những mối quan tâm đã có từ trước", Ahmed cho biết.

Nghiên cứu - dựa trên người dùng 13 tuổi ở Anh, Mỹ, Canada và Úc - gợi ý rằng, trong vòng khoảng 2,5 phút sau khi thiết lập tài khoản TikTok, những người trẻ tuổi có thể được gợi ý nội dung tự hại, và trong vòng 8 phút có thể được gợi ý nội dung thúc đẩy rối loạn ăn uống.

Ahmed cho biết một cuộc điều tra gần đây cho thấy một cậu bé 14 tuổi được TikTok gợi ý nội dung từ tội phạm kỳ thị nữ giới Andrew Tate trong vòng chưa đầy 3 phút sau khi thiết lập tài khoản.

“Điểm chung giữa những vụ việc này là những quan điểm cực kỳ nguy hiểm và hiểu lầm cơ bản về việc một cô gái trẻ nên trông như thế nào, và cách một chàng trai trẻ nên cư xử và nhìn nhận các cô gái", Ahmed nói.

Chỉ riêng ở Anh, hơn 1 triệu trẻ em chưa đủ tuổi có thể đã bị nền tảng này thu thập và sử dụng dữ liệu cá nhân. "Dữ liệu đó có thể đã được sử dụng để theo dõi và lập hồ sơ, sau đó cung cấp nội dung có hại, không phù hợp ngay khi trẻ em truy cập vào ứng dụng", theo Ahmed.

Ahmed nói thêm rằng TikTok không phải là nền tảng truyền thông xã hội duy nhất đang thả lỏng việc kiểm soát nội dung có hại để thu hút sự chú ý của người dùng bằng mọi cách, ngay cả khi điều này có nghĩa là đặt người dùng vào rủi ro.